Sau khi Hiệp định Genève 1954 được ký kết, các lực lượng không thuộc Việt Minh rút về kiểm soát lãnh thổ phần phía nam vĩ tuyến 17 của Việt Nam. Trái ngược với tình hình chính trị dưới sự kiểm soát duy nhất bởi Việt Minh ở miền Bắc, tình hình miền Nam trở nên biến động do sự tranh chấp của nhiều đảng phái với chính phủ Quốc gia Việt Nam do Thủ tướng Ngô đình Diệm đứng đầu. Quân viễn chinh Pháp với lực lượng 36.000 quân đã rút hết về phía nam vĩ tuyến 17 thì ngấm ngầm ủng hộ các đảng phái và lực lượng quân sự chống đối chính phủ liên tục gây ra các hành động gây hấn khiến xã hội càng thêm phân hóa.

Ba nhóm lớn công khai chống đối là Bình Xuyên chủ yếu ở Sài Gòn, Cao Đài ở miền Đông Nam phần và Hòa Hảo ở miền Tây. Tháng 3 năm 1955, ba nhóm này thành lập Mặt trận Thống nhất Toàn lực Quốc gia, gây áp lực đòi Thủ tướng Ngô Đình Diệm phải cải tổ nội các và giao một số chức vụ quan trọng trong chính phủ cho họ. Với quan điểm cứng rắn và nhận được sự hỗ trợ từ chính quyền Mỹ, Thủ tướng Ngô Đình Diệm quyết định thanh trừng và giải tán các lực lượng vũ trang không thuộc chính phủ. Quốc trưởng Bảo Đại thì không muốn giải tán các nhóm chính trị và vũ trang ủng hộ mình, ngược lại, còn gây áp lực buộc Thủ tướng thỏa hiệp với mọi phe phái.

Nhận được sự ủng hộ về hình thức của Quốc trưởng, Mặt trận gửi tối hậu thư ngày 21 tháng 3, hẹn trong 5 ngày phải có kết quả. Chính phủ Ngô Đình Diệm không nhượng bộ và các nhóm lập tức lấy cớ đó để gây xung đột vũ trang, mà khởi đầu là cuộc chiến tranh ngắn ngày giữa quân đội Bình Xuyên và quân chính phủ ngay giữa đô thành Sài Gòn.